Các vấn đề dùng mô hình toán học thường được phân loại thành mô hình black box và white box, tùy vào lượng thông tin có sẵn/cho trước (a priori information) về hệ thống. Mô hình hộp đen mà một hệ thống mà thông tin có sẵn về hệ thống là không có. Mô hình hộp trắng (hay còn gọi là hộp gương (glass box, clear box)) là một hệ thống mà mọi thông tin cần thiết đều có sẵn. Mọi hệ thống thực tế thì nằm dao động ở giữa cả hai loại trên, nó không hoàn toàn là hộp đen mà cũng không hoàn toàn là hộp trắng. Vì thế, 2 khái niệm này chỉ dùng để giới thiệu một cách trực quan về hướng tiếp cận.

Thông tin có sẵn (a priori information)

Thông thường, ta sử dụng tối đa thông tin có sẵn để giúp cho mô hình càng chính xác. Vì thế, mô hình hộp trắng thường được ưa thích. Và thông tin có sẵn thường ở dạng là cho biết dạng hàm liên kết quan hệ giữa các biến khác nhau.

Ví dụ: nếu ta muốn mô hình hóa cách thuốc tác động lên hệ thống cơ thể của con người, ta biết rằng thông thường lượng thuốc trong máu là một hàm phân rã theo hàm mũ theo thời gian. Đó là thông tin có sẵn, ta vẫn còn thiếu nhiều biến chưa được biết, ví dụ tốc độ phân rã, và lượng thuốc đầu tiên trong máu là bao nhiêu? Ví dụ này hiển nhiên không phải là hộp trắng hoàn toàn. Và việc ước lượng các thông số (biến) chưa biết cần sử dụng các phương tiện/phương pháp phù hợp trước khi đưa mô hình vào sử dụng.

Như vậy, với mô hình hộp đen, ta vừa phải cố gắng ước đoán dạng hàm phù hợp, đồng thời tìm ra các giá trị tham số cho dạng hàm đó. Dùng thông tin có sẵn, ta có thể giảm đi một phần công việc, ví dụ: dạng hàm là cho sẵn. Nếu thông tin có sẵn không có, thì ta nên lựa chọn các hàm đủ tổng quát để có thể bao quát được mọi mô hình khác nhau. Và cách hay dùng cho trường hợp này là mạng nơron, cái này thường không cần giả thiết nào về dữ liệu vào.

Điều cần chú ý nữa là khi mà số lượng biến lớn và quá nhiều hàm khác nhau tham gia vào trong mô hình đề xuất, bài toán sẽ trở nên khó giải quyết.

Thông tin chủ quan

Đôi lúc, việc đưa thông tin mang tính chủ quan vào trong mô hình toán học là hữu ích. Điều này dựa vào trực quan, kinh nghiệm, hay ý kiến của các chuyên gia, hoặc dựa vào sự thuận lợi của dạng toán. Thống kê Bayes cung cấp một bộ khung lý thuyết (theoretical framework) để đưa loại thông tin này vào quá trình xây dựng mô hình: bằng cách đưa ra phân bố xác suất cho trước (a prior probability distribution) và sau đó cập nhật phân bố này dựa trên dữ liệu mang tính kinh nghiệm (empirical data).[1]